iT邦幫忙

2024 iThome 鐵人賽

DAY 1
1
自我挑戰組

LLM 應用、框架、優化及評估方法系列 第 1

Day1 GAI爆炸時代 -開啟 LLM 之學習之路

  • 分享至 

  • xImage
  •  

第一次參加 IThome 鐵人賽,抱持著既期待又興奮的精神,來與大家分享我的經驗和知識。
本身大學/研究所就讀資訊相關科系的我,將用淺顯易懂的方式解釋各種背後技術!
目前在某公司從事 GAI 開發相關工作,將竭盡所能提供最實用的 AI 相關內容。
以下將會是我這30天要分享的主題:

  1. 開發 LLM 框架

    • LangChain:深入解析其架構和應用。
    • LlamaIndex: 簡單介紹。
    • 框架選型和比較:選擇最適合的開發工具。
  2. API 串接與 Azure OpenAI API (AOAI)

    • 基礎串接方法:如何直接使用 API 對接各種應用。
    • Gateway 訪問 AOAI:企業內部如何使用去達到高效且安全的訪問方式。
  3. Vector Database比較

    • 評估市面上主流的Vector DB
  4. 檢索增強生成 (RAG) 的種類及方法

    • 基本方法 (Naive Approach):如何實現簡單的檢索增強生成。
    • 進階方法 (Advanced Techniques):更高效和精確的實現方式。
  5. LLM 部署方式

    • Ollama:介紹其本地部署方法及優勢。
    • 其他本地部署工具:如 Docker 和 Kubernetes 的使用。
  6. 各種大型語言模型 (LLM) 平台的應用

    • Dify
    • AnythingLLM
    • Flowise
  7. RAG 評估指標

希望通過這些分享,能夠讓大家對 AI 開發有更深入的理解和實際應用的經驗。如果有任何問題或想了解更多,歡迎隨時交流與討論。


下一篇
Day2 GAI爆炸時代 -開發 LLM 框架
系列文
LLM 應用、框架、優化及評估方法2
圖片
  直播研討會
圖片
{{ item.channelVendor }} {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言